The Coverage Illusion: From Pre-retrieval Routing Failure to Post-retrieval Cascades in a Production RAG System
覆盖幻觉：生产RAG系统中预检索路由失败与检索后级联
🧭 RAG查询增强与检索后级联优化 ★ 深度解读
Aarhus University, Denmark
合成查询高估LLM增强需求 72.2%真实查询仅靠混合检索即可，检索后级联无需训练提质量降延迟
📌 工作参考价值（4 点）
- 电商/推荐系统RAG评估务必使用真实查询，合成查询会严重高估复杂增强（如HyDE）的必要性，造成算力浪费与高延迟
- 实体密集型索引（如商品目录）中，最佳策略是 cheapest-first 检索后级联：先用 BM25+向量混合检索，无结果时再递进调用 LLM 增强，大幅降低推理成本
- 预检索路由（基于查询文本预测是否需要增强）在以上场景几乎无效，因为增强需求取决于索引内容而非查询本身，has_sources 布尔检查比任何 ML 路由都简洁有效
- LLM-as-judge 评估应以覆盖率为主要质量信号，而非回答本身，可据此设计延迟优化：检索落空才触发增强，避免昂贵模型滥用